即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
圖/示意圖
科技生活

·2 months ago·責任編輯
#OpenAI#人工智慧#AI安全#聯合國#奧特曼
圖/示意圖
圖/示意圖
商傳媒|責任編輯/綜合外電報導
摘要

人工智慧公司 OpenAI 於週一發布國際 AI 安全新標準,旨在追蹤並解決 AI 系統行為偏離預期(AI 對齊失誤)的問題。OpenAI 執行長奧特曼將於週三在聯合國安全理事會演說,進一步說明解決方案,而美中兩國也正就 AI 安全對話機制進行討論。

人工智慧公司 OpenAI 已於週一(21日)發布一系列國際人工智慧安全標準,旨在推動全球對這項新興技術的合作監管。OpenAI 執行長奧特曼(Sam Altman)預計將於本週三(23日)在紐約的聯合國安全理事會發表演說,深入闡述該公司對於 AI 安全解決方案的建議。

OpenAI 提出的解決方案著重於建立一套共享的全球測量方式,用於分類 AI 事件、追蹤、報告並回應所謂的「AI 對齊失誤(AI misalignment)」。所謂 AI 對齊失誤,是指人工智慧系統的行為偏離了其設計者的初衷,可能導致非預期或有害的結果。這些標準將涵蓋 AI 系統在測試階段部署前以及實際應用時可能發生的各種事件。

該公司建議,應善用國際人工智慧安全機構,例如透過美國政府的 U.S. Center for AI Security and Innovation,來促進標準的制定與實施。美國在與中國協調 AI 風險方面的策略,預計將大量採納業界所提出的建議。

事實上,美國財政部長史考特·貝森特(Scott Bessent)與中國國務院副總理何立峰(He Lifeng)已於上週末舉行會談,討論建立美中 AI 對話機制,以在 AI 事件達到國家安全風險等級時相互通報。此舉顯示兩大經濟體對 AI 潛在風險的共同關注。此外,美國總統唐納·川普(Donald Trump)與中國國家主席習近平(Xi Jinping)預計也將於本週稍晚舉行會談,並安排了一場業界重量級人士參與的國宴。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源